聯(lián)系我們
導(dǎo)讀：網(wǎng)頁(yè)抓取優(yōu)先策略也稱(chēng)為“頁(yè)面選擇問(wèn)題”(page Selection),通常是盡可能地首先抓取重要性的網(wǎng)頁(yè)，這樣保證在有限的資源內(nèi)盡可能地照顧到那些重要性高的網(wǎng)頁(yè)。那么哪些網(wǎng)頁(yè)才
發(fā)表日期：2019-12-23
文章編輯：興田科技
瀏覽次數(shù)：9398
標(biāo)簽：
網(wǎng)頁(yè)抓取優(yōu)先策略也稱(chēng)為“頁(yè)面選擇問(wèn)題”(page Selection),通常是盡可能地首先抓取重要性的網(wǎng)頁(yè)，這樣保證在有限的資源內(nèi)盡可能地照顧到那些重要性高的網(wǎng)頁(yè)。那么哪些網(wǎng)頁(yè)才是重要性高的呢？如何量化重要性呢？
重要性度量由鏈接歡迎度、鏈接重要度和平均鏈接深度這個(gè)方面決定。
定義鏈接歡迎度為IB(p)，它主要由反向鏈接(Backinks)的數(shù)目和質(zhì)量決定。首先考察數(shù)目，直觀地講，一個(gè)網(wǎng)頁(yè)有越多的鏈接指向它（反向鏈接數(shù)多），那么表示其他網(wǎng)頁(yè)對(duì)其的認(rèn)可。同時(shí)這個(gè)網(wǎng)頁(yè)被網(wǎng)民訪(fǎng)問(wèn)的機(jī)會(huì)就大，推測(cè)出其重要性也就越高;其次考察質(zhì)量，如果被越多的重要性高的網(wǎng)指向，那么其重要性也就越高。如果不考慮質(zhì)量，就會(huì)出現(xiàn)局部最優(yōu)，而不是全局最優(yōu)的問(wèn)題。最典型的就是作弊網(wǎng)頁(yè)，人為地在一些網(wǎng)頁(yè)中設(shè)置了大量反策鏈接指向其自身的網(wǎng)頁(yè)，以提高該網(wǎng)頁(yè)的重要性。如果不考慮鏈接質(zhì)量，就會(huì)被這些作弊者所利用。
定義鏈接重要度為IL(p)，它是一個(gè)關(guān)于URL字符串的函數(shù)，僅僅考察字符串本身。鏈接重要度主要通過(guò)一些模式，比如認(rèn)為包含“.COM”或者“HOME”的URL重要度高，以及具有較少斜杠(Slash)的URL重要度高等。
定義平均鏈接深度為ID(p),此為筆者所創(chuàng)。ID(p)表示在一個(gè)種子站點(diǎn)集合中，每個(gè)種子站點(diǎn)如果存在一條鏈路（寬度優(yōu)先遍歷規(guī)則）到達(dá)該網(wǎng)頁(yè)，那么平均鏈接深度就是這個(gè)網(wǎng)頁(yè)的又一個(gè)重要性指標(biāo)。因?yàn)榫嚯x種子站點(diǎn)越近，說(shuō)明被訪(fǎng)問(wèn)的機(jī)會(huì)越多，離種子站點(diǎn)越遠(yuǎn)，重要性越低。事實(shí)上，按照寬度優(yōu)先的遍歷規(guī)則即可滿(mǎn)足這種重要性高的網(wǎng)頁(yè)被優(yōu)先抓取的需要。
最后，定義網(wǎng)頁(yè)重要性的度量為I(p)，它由以上兩個(gè)量化值線(xiàn)性決定，即：
I(p)＝a*IB(p)+β*IL(p)
平均鏈接深度同寬度優(yōu)先的遍歷規(guī)則保證，因此不作為重要性評(píng)價(jià)的指標(biāo)。在抓取能力有限的情況下，如果能夠把重要性高的網(wǎng)頁(yè)盡可能地抓完，是合理科學(xué)的，最終被用戶(hù)查詢(xún)到的網(wǎng)頁(yè)也往往是那些重要性高的網(wǎng)頁(yè)。
盡管這樣看來(lái)已經(jīng)足夠完美，事實(shí)上，還是忽視了一個(gè)重要的要素－－時(shí)間。時(shí)間導(dǎo)致萬(wàn)維網(wǎng)動(dòng)態(tài)變化的一面。如何抓取那些新增的網(wǎng)頁(yè)呢？如何重訪(fǎng)那些被修改了的網(wǎng)頁(yè)呢？如何發(fā)現(xiàn)那些被刪除了的網(wǎng)頁(yè)呢？為了保持和萬(wàn)維網(wǎng)網(wǎng)頁(yè)的同步變化，就必須有網(wǎng)頁(yè)重訪(fǎng)策略。通過(guò)該策略可以識(shí)別增加、修改及刪除網(wǎng)頁(yè)這3種網(wǎng)頁(yè)變化的情況。
上一篇：
暫無(wú)信息更多新聞
2020
關(guān)于seo，首先獲得更多精準(zhǔn)客戶(hù)。 有需求的用戶(hù)，基本都會(huì)在網(wǎng)上搜索關(guān)鍵詞，找到自己想要的內(nèi)容，企業(yè)網(wǎng)站做了SEO優(yōu)化，網(wǎng)站部署的關(guān)鍵詞，有了好的排名，那么就有
View details
2020
關(guān)于搜索引擎優(yōu)化，對(duì)于網(wǎng)站建設(shè)的首頁(yè)可以說(shuō)它就相當(dāng)于人的臉面，因?yàn)槲覀兛匆粋€(gè)人的時(shí)候，首先看到的是對(duì)方的臉，相對(duì)的搜索引擎優(yōu)先的參考對(duì)象就是標(biāo)題了
View details
2020
關(guān)于官網(wǎng)優(yōu)化，其實(shí)吧想要做好網(wǎng)站外部鏈接。然而SEO說(shuō)簡(jiǎn)單也簡(jiǎn)單，說(shuō)復(fù)雜也復(fù)雜。團(tuán)隊(duì)運(yùn)用的是否為正規(guī)的技術(shù)？ 我個(gè)人曾經(jīng)用過(guò)一些非正規(guī)技術(shù)，但是經(jīng)過(guò)一
View details
2019
網(wǎng)頁(yè)抓取優(yōu)先策略也稱(chēng)為“頁(yè)面選擇問(wèn)題”(page Selection),通常是盡可能地首先抓取重要性的網(wǎng)頁(yè)，這樣保證在有限的資源內(nèi)盡可能地照顧到那些重要性高的網(wǎng)頁(yè)。那么哪些網(wǎng)頁(yè)才
View details
